草庐IT

Python unittest+ddt+openpyxl+configparser

全部标签

Python爬虫实战,requests+openpyxl模块,爬取小说数据并保存txt文档(附源码)

前言今天给大家介绍的是Python爬取小说数据并保存txt文档,在这里给需要的小伙伴们代码,并且给出一点小心得。首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫,基本的是加请求头,但是这样的纯文本数据爬取的人会很多,所以我们需要考虑更换代理IP和随机更换请求头的方式来对小说数据进行爬取。在每次进行爬虫代码的编写之前,我们的第一步也是最重要的一步就是分析我们的网页。通过分析我们发现在爬取过程中速度比较慢,所以我们还可以通过禁用谷歌浏览器图片、JavaScript等方式提升爬虫爬取速度。开发工具Python版本:3.6相关模块:requests模块parsel模块tqdm模块pandas模

Python爬虫实战,requests+openpyxl模块,爬取小说数据并保存txt文档(附源码)

前言今天给大家介绍的是Python爬取小说数据并保存txt文档,在这里给需要的小伙伴们代码,并且给出一点小心得。首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫,基本的是加请求头,但是这样的纯文本数据爬取的人会很多,所以我们需要考虑更换代理IP和随机更换请求头的方式来对小说数据进行爬取。在每次进行爬虫代码的编写之前,我们的第一步也是最重要的一步就是分析我们的网页。通过分析我们发现在爬取过程中速度比较慢,所以我们还可以通过禁用谷歌浏览器图片、JavaScript等方式提升爬虫爬取速度。开发工具Python版本:3.6相关模块:requests模块parsel模块tqdm模块pandas模

DDT数据驱动性能测试(二)

DDT数据驱动性能测试(二)一、保存数据到入csv、txt文件1、写代码2、不写代码  2.1 从数据库中获取数据,写入文件    2.1.1 在jdbc取样器下面,添加保存响应到文件(右键-监听器-保存响应到文件)    2.1.2 文件名称前缀:写一个文件名包含文件格式:例如jdbcresult.txt(文件可以是txt、xls、xlsx格式)    2.1.3勾选:Don'taddnumbertopreffix,Don'taddcontenttypesuffix,否则保存文件类型会出错    2.1.4如果保存的文件名不变,保存响应到文件,保存的则是最后一个取样器执行的结果到文件中,会覆

DDT数据驱动性能测试(二)

DDT数据驱动性能测试(二)一、保存数据到入csv、txt文件1、写代码2、不写代码  2.1 从数据库中获取数据,写入文件    2.1.1 在jdbc取样器下面,添加保存响应到文件(右键-监听器-保存响应到文件)    2.1.2 文件名称前缀:写一个文件名包含文件格式:例如jdbcresult.txt(文件可以是txt、xls、xlsx格式)    2.1.3勾选:Don'taddnumbertopreffix,Don'taddcontenttypesuffix,否则保存文件类型会出错    2.1.4如果保存的文件名不变,保存响应到文件,保存的则是最后一个取样器执行的结果到文件中,会覆

DDT数据驱动性能测试(一)

DDT数据驱动性能测试(一)一、csv数据文件设置1、使用场景:测试过程中需要使用手机号码等大量数据时,用random函数随机生成数字;也可以使用Excel拖动生成一批手机号,也有可以从数据库中导出一批手机号,把准备好的数据,放到txt文件,或者csv文件中,使用csv数据文件设置直接调用。2、txt文件、csv文件:都是文本文件,只是csv文件是用逗号分割列的文本文件3、使用csv数据文件设置,建议使用txt文件,有两点原因  3.1 csv文件被打开时,占用的系统资源要多于txt,从性能测试角度分析,要尽可能使用不会影响到性能得文件  3.2 csv文件默认使用Excel来编辑,Excel

DDT数据驱动性能测试(一)

DDT数据驱动性能测试(一)一、csv数据文件设置1、使用场景:测试过程中需要使用手机号码等大量数据时,用random函数随机生成数字;也可以使用Excel拖动生成一批手机号,也有可以从数据库中导出一批手机号,把准备好的数据,放到txt文件,或者csv文件中,使用csv数据文件设置直接调用。2、txt文件、csv文件:都是文本文件,只是csv文件是用逗号分割列的文本文件3、使用csv数据文件设置,建议使用txt文件,有两点原因  3.1 csv文件被打开时,占用的系统资源要多于txt,从性能测试角度分析,要尽可能使用不会影响到性能得文件  3.2 csv文件默认使用Excel来编辑,Excel

python+requests+excel+unittest+ddt接口自动化数据驱动并生成html报告(优化版)

本文章内容是基于上海-悠悠的版本,进行了优化,增加了部分内容,详细请查阅下文。(目录)1、原文链接python+requests+excel+unittest+ddt接口自动化数据驱动并生成html报告2、修改前后框架区别修改前:修改后:3、主要修改内容增加:token关联(token获取和保存)增加:cookie关联(cookie获取和保存)增加:发送邮件(使用SMTP)修改:HTML报告模板中的样式和ddt用例的标题增加:logo日志4、详细修改内容说明4.1、增加token关联4.1.1、token获取get_token.pyimportjsonimportrequestsfromcom

python+requests+excel+unittest+ddt接口自动化数据驱动并生成html报告(优化版)

本文章内容是基于上海-悠悠的版本,进行了优化,增加了部分内容,详细请查阅下文。(目录)1、原文链接python+requests+excel+unittest+ddt接口自动化数据驱动并生成html报告2、修改前后框架区别修改前:修改后:3、主要修改内容增加:token关联(token获取和保存)增加:cookie关联(cookie获取和保存)增加:发送邮件(使用SMTP)修改:HTML报告模板中的样式和ddt用例的标题增加:logo日志4、详细修改内容说明4.1、增加token关联4.1.1、token获取get_token.pyimportjsonimportrequestsfromcom